Dönitz sinh ngày 16 tháng 9 năm 1891 tại thị trấn Grünau, gần Berlin với mẹ ông là bà Anna Beyer và cha, ông Emil Dönitz, một kỹ sư. Karl có một người anh trai. Năm 1910, Dönitz gia nhập Lực lượng Hải quân Đế quốc Đức.

Vào ngày 27 tháng 9 năm 1913, Dönitz được phong quân hàm Thiếu úy trong Lực lượng Hải quân. Khi chiến tranh thế giới thứ nhất bắt đầu, ông phục vụ trên tàu tuần dương hạng nhẹ SMS Breslau chiến đấu trên Địa Trung Hải. Tháng 8 năm 1914, tàu Breslau và chiến hạm SMS Goeben được chuyển giao lại cho Hải quân Đế quốc Ottoman; hai tàu sau đó đã được đổi tên thành Midilli và Yavuz Sultan Selim. Ngày 22 tháng 3 năm 1916, Dönitz được thăng quân hàm Trung úy. Khi tàu Midilli cập cảng để sửa chữa, Dönitz được giao nhiệm vụ tạm thời chỉ huy sân bay tại Dardanelles. Kể từ đó, ông đã đề nghị được thuyên chuyển công tác đến Lực lượng tàu ngầm, tuy nhiên phải mãi đến tháng 10 năm 1916 điều này mới diễn ra. Dönitz lúc đầu làm sĩ quan trinh sát trên tàu ngầm U-39, từ tháng 2 năm 1917 trở đi ông trở thành chỉ huy của tàu UC-25. Vào ngày 2 tháng 7 năm 1918, Dönitz trở thành chỉ huy tàu UB-68 tham chiến trên Địa Trung Hải. Vào ngày 4 tháng 10, sau khi gặp phải một số lỗi kỹ thuật, UB-68 đã bị Hải quân Anh đánh chìm, còn bản thân Dönitz bị bắt và giam giữ trên đảo Malta. Ông nhận ra rằng các tàu vận tải được sản xuất vào năm 1917 đã có khả năng ngăn ngừa được các cuộc tấn công của U-boat, qua đó kết thúc hy vọng vào chiến thắng trên biển của người Đức. Tuy nhiên Dönitz cũng nhận thấy rằng các tàu vận tải này có thể đánh phá thành công vào ban đêm với một số lượng lớn tàu U-boat.